Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

Таши был Мэтью Макколи – внук автора первых 19 книг о приключениях братьев Харди, обладатель премии «Эмми», композитор и египтолог, увлекшийся дистанционным зондированием (он даже использовал эту технологию при раскопках Большого сфинкса). Сегодня он возглавляет совет директоров компании трехмерного моделирования GeoSim. Таша выросла в Лос-Анджелесе и училась в необычной государственной начальной школе Open School, учебную программу для которой разработал Алан Кэй, а часть средств предоставила компания Apple Computer, Inc. (как она тогда называлась). Открытая школа была частью более масштабного проекта Apple под названием Vivarium – по аналогии с вольером для наблюдения за растениями и животными. Проект был направлен на то, чтобы усовершенствовать компьютеры, передав их в руки детей.

«Работая с маленькими детьми и изучая их интуитивные реакции на интерфейс и поведение нашей системы, мы надеемся создать технологию, простота которой позволит большему числу людей настраивать свои компьютеры под собственные потребности и желания», – писал Ларри Йегер, коллега Кэя по Открытой школе. Триста учеников с первого по шестой класс изучали, например, биологию, создавая на компьютерах анимированных животных и программируя их поведение. Они учились программировать и выполняли домашние задания с помощью динамических инструментов вроде HyperCard – гипермедийной системы, существовавшей еще до появления интернета. «Программы, которые мы создавали, напоминали мне игрушки – интуитивно понятные графические игрушки, позволявшие представлять идеи ярко и содержательно», – рассказала Макколи в интервью Chicago Toy & Game Group[264]. В консультативный совет программы Vivarium входили такие выдающиеся личности, как Джефф Хинтон, Марвин Минский, Дуглас Адамс (автор «Автостопом по Галактике») и даже говорящая на языке жестов горилла Коко.

Кэй на всю жизнь остался ее наставником, и вся карьера Макколи была отражением его стремления расширять границы взаимодействия человека и компьютера («Лучший способ предсказать будущее – это изобрести его», – гласит знаменитая фраза Кэя). Макколи поступила в Бард-колледж, затем изучала робототехнику, а позже преподавала в Университете сингулярности – «образовательном сообществе» (на самом деле не имеющем статуса университета), основанном Рэем Курцвейлом и Питером Диамандисом, учредителем премии XPRIZE. Организация финансируется такими корпорациями, как Cisco, GE и Google. Стоит отметить, что в 2012 году Университет сингулярности выкупил права на Саммит сингулярности и другие элементы бренда у организации Юдковского, которая к тому времени была переименована в MIRI (Институт исследований машинного интеллекта). В 2011 году Макколи вместе с коллегами из Университета сингулярности основала робототехническую компанию Fellow Robots, которая создавала роботов для различных целей: от «телеприсутствия» (один из ранних прототипов под названием Helo представлял собой планшет, установленный на сегвее) до обслуживания клиентов в крупных магазинах (элегантный аппарат, напоминающий банкомат, с женским голосом). В 2014 году она получила степень MBA в Школе бизнеса Маршалла Университета Южной Калифорнии, а с 2019 по 2022 год возглавляла GeoSim, где ее отец занимал пост председателя совета директоров и был одним из инвесторов. В том же 2014 году Макколи вышла замуж за актера Джозефа Гордона-Левитта, известного по фильму «Начало», а через год у них родился первенец. Вскоре после этого супруги посетили конференцию «Глобальный эффективный альтруизм» в Сан-Франциско и быстро стали заметными фигурами в этом сообществе. На следующий год Гордон-Левитт, в очках и клетчатой рубашке оливково-черной расцветки выглядевший как типичный эффективный альтруист, выступал на той же конференции. Он отметил разительный контраст между рациональным подходом эффективных альтруистов и эмоциональной благотворительностью, характерной для Голливуда. «Узнав об этой концепции – следовать не тому, что создает красивый сюжет, а тому, что доказуемо приносит максимальную пользу, – я нашел ее невероятно убедительной и благородной, достойной того, чтобы о ней говорить», – заявил он[265].

Макколи и Альтман договорились поддерживать связь, а по окончании конференции они вместе с Суцкевером, Хассабисом и Стивеном Хокингом подписали документ, который впоследствии стал известен как асиломарские принципы ИИ. Эти правила безопасности оказались куда радикальнее договоренностей в Пуэрто-Рико. Те, кто их подписал, обязались не участвовать в гонке технологических возможностей; соглашались, что «команды, разрабатывающие системы ИИ, должны активно сотрудничать, чтобы не допускать снижения стандартов безопасности» и что ИИ должен «соответствовать человеческим ценностям». Более спорным пунктом, учитывая растущую конкуренцию между DeepMind и OpenAI, а также очевидные геополитические последствия для страны, которая первой придет к созданию AGI, было обещание каждого подписавшего, что «экономическое процветание, созданное ИИ, должно распределяться справедливым образом» и что «сверхинтеллект должен разрабатываться только для служения широко разделяемым этическим идеалам и на благо всего человечества, а не отдельного государства или организации»[266]. Среди тех, кто поставил свою подпись позже, был Уильям Макаскилл – оксфордский философ, которого считают основоположником движения эффективного альтруизма.

Движение эффективного альтруизма было основано в начале 2010-х годов Макаскиллом и его коллегой по Оксфорду Тоби Ордом. Вдохновением для них послужило эссе философа-утилитариста Питера Сингера, написанное в 1972 году. В нем утверждалось, что состоятельные люди морально обязаны тратить максимально возможную часть своего богатства – значительно больше общепринятых норм – на облегчение страданий в развивающихся странах. Первые эффективные альтруисты стремились беспристрастно и строго оценивать, какие благотворительные организации работают эффективнее всего (особенно высоко котировались программы борьбы с паразитами у детей). Они убеждали последователей: вместо того чтобы напрямую (и часто неэффективно) помогать голодающим в Африке, лучше устроиться на высокооплачиваемую работу в хедж-фонд и направлять значительную часть зарплаты в эффективные благотворительные организации. Как бы неприятно это ни звучало, такой подход, по их мнению, принесет миру больше пользы.

Параллельно с этим два молодых аналитика гигантского хедж-фонда Bridgewater Associates – Холден Карнофски и Эли Хассенфельд в 2006 году организовали с коллегами благотворительный клуб. Цель заключалась в объединении средств и поиске наиболее эффективных способов их использования. Со временем клуб превратился в GiveWell – некоммерческую организацию, оценивающую благотворительные фонды по критерию затрат на спасение одной жизни. Лидерами рейтинга стали организации, распространявшие противомоскитные сетки для борьбы с малярией, поэтому в эффективном альтруизме тот период окрестили эпохой москитных сеток. Примерно тогда же Юдковский выступал с похожими идеями на LessWrong, призывая рационалистов «покупать теплые чувства и утилоны по отдельности»: придерживать дверь старушкам для душевного удовлетворения, а для реальной помощи миру «искать благотворительную организацию, которая предлагает наибольшее ожидаемое количество утилонов на доллар»[267],[268].

В то время как идеи эффективного альтруизма распространялись в технологических кругах Сан-Франциско, журналистка местного бюро The Wall Street Journal Кэри Туна отправилась на свидание вслепую с Дастином Московицем – соседом Марка Цукерберга по комнате в Гарварде и сооснователем Facebook, чье состояние сегодня оценивается примерно в 23 миллиарда долларов. Год спустя, вдохновившись работами Питера Сингера, они стали самой молодой парой, подписавшей «Клятву дарения» Уоррена Баффетта и супругов Гейтс – обещание пожертвовать большую часть своего состояния на благотворительность при жизни или по завещанию. В 2011 году, уже будучи помолвленными, они